Mỹ Sơn có lẽ được bắt đầu xây dựng vào thế kỷ IV. Trong nhiều thế kỷ, Thánh địa này được bổ sung thêm các ngọn tháp lớn nhỏ và đã trở thành khu di tích chính của văn hóa Chămpa tại Việt Nam. Ngoài chức năng hành lễ, giúp các vương triều tiếp cận với các Thánh thần, Mỹ Sơn còn là trung tâm văn hóa và tín ngưỡng của các triều đại Chămpa và là nơi chôn cất các vị vua, thầy tu nhiều quyền lực. Những di vật đầu tiên được tìm thấy ghi dấu thời đại vua Bhadravarman I (Phạm Hồ Đạt) (trị vì từ năm 381 đến 413), vị vua đã xây dựng một Thánh đường để thờ cúng linga và Shiva. Mỹ Sơn chịu ảnh hưởng rất lớn của Ấn Độ cả về kiến trúc (thể hiện qua các đền tháp đang chìm đắm trong huy hoàng quá khứ), và về văn hóa--thể hiện qua các dòng bia ký bằng chữ Phạn cổ trên các tấm bia.

Dựa trên các tấm bia văn tự khác, người ta biết nơi đây đã từng có một đền thờ đầu tiên được làm bằng gỗ vào thế kỷ IV. Hơn 2 thế kỷ sau đó, ngôi đền bị thiêu hủy trong một trận hỏa hoạn lớn. Vào đầu thế kỷ VII, vua Sambhuvarman (Phạm Phạn Chi) (trị vì từ năm 577 đến năm 629) đã dùng gạch để xây dựng lại ngôi đền còn tồn tại đến ngày nay (có lẽ sau khi dời đô từ Khu Lật về Trà Kiệu). Các triều vua sau đó tiếp tục tu sửa lại các đền tháp cũ và xây dựng các đền tháp mới để thờ các vị thần. Gạch là vật liệu tốt để lưu giữ ký ức của một dân tộc kỳ bí; và kỹ thuật xây dựng các tháp này của người Chàm cho tới nay vẫn còn bí ẩn. Người ta vẫn chưa tìm ra lời giải đáp thích hợp nào về chất liệu gắn kết, phương thức nung gạch và xây dựng.

Những ngọn tháp và lăng mộ có niên đại từ thế kỷ VII đến thế kỷ XIV, nhưng các kết quả khai quật cho thấy các vua Chăm đã được chôn cất ở đây từ thế kỷ IV. Tổng số công trình kiến trúc là trên 70 chiếc. Thánh địa Mỹ Sơn có thể là trung tâm tôn giáo và văn hóa của nhà nước Chăm Pa khi thủ đô của quốc gia này là Trà Kiệu hay Đồng Dương.